前段时间大热的DeepSeek-R1大模型，以其卓越的推理能力、采用强化学习训练、低成本高效能以及开源共享的特点，为用户提供了一个智能且经济高效的AI解决方案。其核心技术就是使用了混合专家模型MoE，专家混合模型MoE是一种通过多个子模型（专家）协作完成任务的

模型 python deepseek moe 模型moe 2025-05-13 19:50  12

值得注意的是，Qwen3系列模型共包含8款不同尺寸，除了两个参数为30B和235B的MoE（混合专家系统）大模型外，阿里本次推出了6款Dense（稠密）模型，6个是稠密模型，参数从0.6B到32B不等。

模型 手机 夸克 moe qwen3 2025-05-12 17:50  10

4 月 29 日，阿里巴巴发布并开源了最新一代大语言模型Qwen3系列。本次开源了Qwen3-235B-A22B和Qwen3-30B-A3B两款 MoE 模型以及Qwen3-32B、14B、8B、4B、1.7B、0.6B多款密集模型。

moe qwen3适配 qwen3 适配 moe模型 2025-05-12 16:30  10

这篇论文介绍了一种名为“MoE Jetpack”的方法，可以将密集模型（dense）转化为稀疏激活的混合专家模型（Mixture of Experts，简称MoE）。传统的MoE模型需要大量的数据和计算资源进行训练，而该方法可以从预训练的密集模型中快速地迁移学

检查点 moe moejetpack 2024-11-22 06:00  12

业绩会上，首席执行官程一笑表示，对于AI大模型的进展方面，公司正在研发Moe模型，在模型预训练阶段，多个指标超过11750E模型，大幅降低模型训练的退役成本，通过在可控生成方面升级了镜头控制首尾针控制运动笔刷对口型能力，持续的保持行业领先地位。

商业化 moe 对口型 2024-11-21 10:43  12